Model Bias

定义 Definition

模型偏差：指机器学习/统计模型在预测或决策中出现的系统性偏离，常见包括：

统计意义上的偏差（预测值长期偏离真实值）；
公平性语境中的偏差（对某些群体产生不公平的差别影响，通常来自数据、特征选择、目标函数或部署环境）。
（在不同领域中侧重点不同，但都强调“不是随机误差，而是稳定、可重复的偏离”。）

发音 Pronunciation (IPA)

/mdl bas/
/mdl bas/

例句 Examples

The team checked the model bias before deploying the system.
团队在部署系统前检查了模型偏差。

Even with high accuracy, the model showed bias against applicants from certain neighborhoods because historical data encoded past discrimination.
即使准确率很高，该模型仍对来自某些社区的申请者表现出偏差，因为历史数据把过去的歧视“编码”进了模型。

词源 Etymology

model 源自拉丁语 modulus（“尺度、标准”），引申为“用于解释或预测的抽象结构”；bias 源自法语 biais（“斜的、倾斜”），后来引申“倾向、偏向”。合在一起，model bias 字面即“模型的倾斜/偏向”，对应“系统性偏离”或“不公平倾向”。

文学与著作中的用例 Literary Works

Cathy O’Neil，《Weapons of Math Destruction》（《数学杀伤性武器》）：讨论数据与模型如何放大不公平，常以“bias/biased models”等表述谈及模型偏差。
Virginia Eubanks，《Automating Inequality》：分析公共服务中的自动化决策系统及其偏差问题。
Solon Barocas, Moritz Hardt, Arvind Narayanan，《Fairness and Machine Learning》（在线教材）：系统梳理机器学习中的偏差与公平性框架。
Joy Buolamwini & Timnit Gebru，“Gender Shades”（论文）：以面部识别差异表现为例，讨论模型在不同性别/肤色群体上的偏差。